DualEvolve:推荐系统机制与编排的双层级自演化
🧭 LLM Agent 自进化推荐 · 双层优化 ★ 深度解读
Independent Researcher · Meituan
同时演化推荐模型代码和 Agent 编排,用过程质量反馈与 Thompson 采样在 64 个比较中全部优于现有自演化方法
📌 工作参考价值(4 点)
- 将「任务指标」和「过程质量」分离:模型晋升只依赖固定验证分数和噪声/成本门控,Agent 编排更新只看过程质量(决策质量、实验严谨性、分析深度、新颖性),避免只追最终分数导致的过拟合或错误方向。
- 推荐模型 AutoML 或 LLM 自动调参中,采用两档 fidelity screening:低预算粗筛候选,高预算再验证,配合 noise floor 和 cost coefficient 决定是否晋升,能明显降低 full-budget 训练次数。
- 外层编排动作选择用 Thompson sampling 从 KEEP / EDIT HARNESS / EDIT SKILL 中采样,下一轮过程 reward 残差更新后验;比确定性 argmax 更能保持探索,实现简单、可复用。
- 把任务特定经验(inside wiki)与外部论文先验(outside wiki)解耦,迁移时只搬 evolved harness/skill rules,不搬原始日志,便于跨业务/数据集复用;同时固定评估器和晋升规则,防止 LLM agent 搜索时篡改评估逻辑或利用捷径。
工作智能体:系统、能力与优化
🧭 Agent 工作系统与优化框架
Shanghai Jiao Tong University · The University of Hong Kong · The Hong Kong University of Science and Technology (Guangzhou) · Tsinghua University · The Chinese University of Hong Kong
以工作为中心给出工作智能体的系统级框架,用持久性与开放性刻画条件并划分五类数字工作,梳理能力与优化路径
📌 工作参考价值(4 点)
- 用“工作持久性/开放性”给 Agent 任务分级:电商客服、推荐解释等低持久性对话可轻量处理;跨系统选品、投放、报表等高持久性任务需要状态化工作空间、checkpoint 与回滚机制。
- 五层工作形式可做架构拆分:对话层做查询理解,原子动作层做商品/内容编辑,多步层做依赖动作,工作流层做跨团队 handoff,工作空间层做跨对象依赖追踪;据此把 LLM 调用边界和工具接口设计清楚。
- 除模型微调外先优化 harness:工具说明、状态存储、错误恢复、RAG 上下文等往往能低成本提升搜索推荐 Agent 可靠性,再逐步引入 LoRA/SFT 联合优化。
- 评估以可验证工作产出为中心:定义任务完成率、交付质量、回滚率、依赖一致性等指标,避免只比 BLEU/ROUGE;对 push 文案生成/query 推荐也要看业务转化与可执行性。
GUI-HARVEST:证据驱动的 GUI Agent Harness 自改进
🧭 GUI Agent 自适应 Harness 优化
The Chinese University of Hong Kong, Shenzhen · Tianjin University · Harbin Institute of Technology (Shenzhen) · East China Normal University · Shenzhen Research Institute of Big Data
用证据驱动 harness 自动进化,让冻结 backbone GUI agent 自改进并跨任务/模型泛化
📌 工作参考价值(4 点)
- 在电商/搜索推荐 Agent 管线中,可借鉴「证据驱动诊断」:记录模型意图、实际执行动作及前后环境状态(如搜索结果页、购物车状态变化),定位具体状态转移,而非只看最终 reward,从而找出 harness 该改哪里(如终止条件、重试策略、query 改写触发点)。
- 同任务重复运行作为联合证据,比较成功/失败轨迹差异,能排除执行随机性影响,提取 outcome-relevant 的行为差异(例如成功轨迹多了一次二次验证),再把这些差异固化为 runtime 规则,比单次失败更可靠。
- harness 优化建议限制在 bounded source-code edits(观测组装、动作执行、验证/恢复、终止控制),并在评估前记录预测行为效果;这样能验证行为与任务性能双重提升,降低过拟合到特定任务的风险,便于在 unseen tasks 上复用。
- 冻结 backbone 下优化 harness,再跨模型/跨环境迁移,可减少对每个新模型做 fine-tune 或 prompt 工程;电商场景中可先在成本较低模型上优化 harness,再迁移到更强闭源模型或不同产品域。
Task-CoEvolve:自适应验证任务选择的高效 Harness 优化
🧭 LLM Agent 自适应验证任务选择
The University of Tokyo
通过方差加权采样聚焦高分歧任务并估计全量分数,在保持性能的同时将 harness 优化评估成本降 80%
📌 工作参考价值(3 点)
- 在电商对话导购、自动化选品等 Agent 工作流中,harness/prompt 迭代需要跑大量案例,可借鉴 Task-CoEvolve:每轮只评估候选方案分歧最大的样本(能力边界附近),而不是固定全集,能大幅节省 LLM 推理成本。
- 用概率加权(Horvitz-Thompson / IPS)从部分采样样本估计全量指标,保证迭代间对比一致;推荐从业者熟悉 IPS,在评估 LLM 生成质量或 Agent 决策时可直接迁移。
- 工程实现简单:记录每个候选 harness 在各任务上的成功/失败结果,计算任务间方差作为采样权重,评估指标时用 1/采样概率 加权;无需额外模型,可快速接入现有优化循环。
DarwinX:通过自然选择进化 Agent 外壳
🧭 Agent 群体选择与 harness 进化 ★ 深度解读
Salesforce AI Research · Salesforce Agentforce
冻结模型下把 Agent 自改进变成对 harness 变体的群体选择,用保留-扩展契约和档案重组,在四个基准平均提升约 17 个点
📌 工作参考价值(4 点)
- 在电商/广告/搜索的 Agentic 产品中,可以冻结 LLM 只进化 harness(prompt、tool、skill、control flow),用 preserve-and-extend 契约做上线门禁:只接受新增能力且回归有界的编辑,避免推荐或 query 改写质量出现全局抖动。
- 保留档案中的弱势变体而非只留单最优:不同 specialist 可能分别擅长 query 推荐、商品推荐、多轮对话等子任务,merge 互补变体可覆盖更多场景,类似多策略/多智能体协作。
- 把失败轨迹、teacher 演示、自身 pass/fail 对比三种信号统一成 harness 编辑接口;业务中可用人工标注的 good/bad case 或用户反馈作为 teacher/failure 信号,不微调模型,降低迭代成本和风险。
- Agentic 推荐系统评测噪声大,用 avg@k 和 preservation probe 确认而非单次 lucky rollouts,可避免假阳性、防止过度优化某个子集。
递归护栏自我改进:少量迭代提升智能体性能上限
🧭 Agent 自我优化 · 提示级迭代改进
Sakana AI · UC Berkeley
提出RHI,通过提示级迭代优化智能体循环,仅需少量样本即可超越最大推理设置并降低60%成本
📌 工作参考价值(4 点)
- 在电商推荐或搜索的Agent工作流中,可对编排提示(harness)进行任务特定的迭代优化,而无需依赖模型推理深度,从而以更低成本获得更优性能。
- 利用成对比较反馈自动优化多智能体间的信息流,提升复杂任务(如多轮对话推荐、用户意图理解)中上下文管理的有效性。
- RHI的轻量级特点(仅需少量迭代与低推理努力Agent)表明,实际业务可快速微调Agent编排模板,避免昂贵的手工设计或重训练。
- 实验显示性能增益源于改进的上下文管理而非更长推理,提示优化Agent间通信机制(如工具调用、中间结果传递)可能比堆叠推理步骤更高效,对商品检索或广告策略Agent有参考意义。
贝叶斯智能体:后验引导的技能进化驾驭LLM代理
🧭 贝叶斯证据驱动的代理技能进化 ★ 深度解读
IDEA Research · The Hong Kong University of Science and Technology (Guangzhou) · DataArcTech Ltd.
将代理技能视为贝叶斯假设,基于验证轨迹后验指导技能修补、压缩与退役,实现无需改权重的可靠进化。
📌 工作参考价值(4 点)
- 技能维护引入贝叶斯后验:不要仅凭成功/失败次数决定是否保留技能,使用特征条件后验(如失败模式、上下文)估计技能可靠性,避免小样本下的决策噪声。
- 分离审计与执行:后验诊断信息只留给开发者,模型提示仅注入确定的失败补丁与 guardrail,避免 LLM 直接处理概率数字,提升 prompt 稳定性。
- 增量修复模式:对已完成的代理运行,仅重跑失败任务并基于证据修补技能,可用较低 token 成本提升整体成功率(如 RealFin 从 45% 修到 65%)。
- 轨迹特征离散化:将失败模式、token 数、回合数等桶化编码为离散特征,适合小样本技能效果推断,可借鉴至电商多轮代理的失败模式分析与自动护盾生成。
回顾式 Harness 优化:基于轨迹重放的自偏好提升 LLM Agent
🧭 Agent 自进化 · Harness 优化 ★ 深度解读
City University of Hong Kong · Microsoft Research Asia
提出无需标注的回顾式 Harness 优化方法 RHO,通过自偏好对比轨迹选择最佳技能/工具更新,在软件工程、技术等多个领域显著提升 Agent 表现。
📌 工作参考价值(4 点)
- 无标注的 Agent 自优化管道:RHO 仅利用过去运行轨迹,通过自比较和自偏好选出最优 harness 更新,完全省去人工构造验证集。电商对话 Agent、多智体协作流水线可直接借鉴,从历史对话或操作痕迹中自动提炼更好的提示/工具/技能。
- DPP 挑选困难且多样样本:用 Determinantal Point Process 结合难度评分和语义多样性选取核心集,避免只挑困难而忽视类型覆盖。在推荐场景可类比地用于从海量离线日志中选出最具代表性且难例的样本进行复盘优化。
- Group Rollout + 双重诊断信号:对同一任务并行执行多次,通过“自验证”(单条轨迹中的错误步骤)和“自一致性”(多条轨迹间的冲突)提取结构化改进指令。这一技巧可用于推荐 Agent 的多路召回或结果比较,诊断模型飘移或策略分歧。
- Best-of-N Harness 提案与自偏好过滤:并行生成多个 harness 候选,并用自偏好评分选最优,避免单次编辑的不稳定。工程上相当于多个候选流水线并行评估,可用来做线上策略变更的安全上线。